单卡5090跑满血DeepSeek V4Flash，已开源，Token自由了！
单卡5090跑满血DeepSeek V4Flash，已开源，Token自由了！本周五，AI 社区热烈讨论的是一个端侧大模型部署技术，它能让笔记本 RTX 4060 跑 Qwen 3.6-35B，桌面 RTX 5090 跑得起 DeepSeek-V4-Flash 284B。而且都是单卡，模型都是满血的。Codex 生产 trace 的中位 decode 速度是 33 token/s
来自主题: AI资讯
9275 点击 2026-08-23 00:27